亚马逊云科技 _机器学习领域信息情报检索

AWS的以下部分介绍了机器学习的文章。Amazon Web Services(AWS)是亚马逊公司内部一个充满活力且不断发展壮大的业务部门。订阅我们,获取关于Amazon Web Services机器学习的文章。

使用 Amazon SageMaker Unified Studio 和 SageMaker Catalog 构建离线特征存储

Build an offline feature store using Amazon SageMaker Unified Studio and SageMaker Catalog

此博文提供了有关在 SageMaker Unified Studio 域中使用 SageMaker Catalog 实施离线功能存储的分步指南。通过采用发布-订阅模式,数据生产者可以使用此解决方案来发布精选的版本化特征表,而数据消费者可以安全地发现、订阅和重用它们以进行模型开发。

P-EAGLE:通过 vLLM 中的并行推测解码实现更快的 LLM 推理

P-EAGLE: Faster LLM inference with Parallel Speculative Decoding in vLLM

在这篇文章中,我们将解释 P-EAGLE 的工作原理、如何将其集成到从 v0.16.0 (PR#32887) 开始的 vLLM 中,以及如何通过预先训练的检查点为其提供服务。

利用 TTFT 和估计配额消耗的新 CloudWatch 指标提高 Amazon Bedrock 上推理工作负载的运营可见性

Improve operational visibility for inference workloads on Amazon Bedrock with new CloudWatch metrics for TTFT and Estimated Quota Consumption

今天,我们宣布针对 Amazon Bedrock 推出两个新的 Amazon CloudWatch 指标:TimeToFirstToken 和 EstimatedTPMQuotaUsage。在这篇文章中,我们将介绍它们的工作原理以及如何设置警报、建立基线以及使用它们主动管理容量。

使用 Amazon Bedrock AgentCore 中的策略保护 AI 代理

Secure AI agents with Policy in Amazon Bedrock AgentCore

在本文中,您将了解 Amazon Bedrock AgentCore 中的策略如何创建一个独立于代理自身推理运行的确定性执行层。您将学习如何将业务规则的自然语言描述转化为 Cedar 策略,然后使用这些策略来实施细粒度的身份感知控制,以便代理仅访问其用户有权使用的工具和数据。您还将了解如何通过 AgentCore Gateway 应用策略,在运行时拦截和评估每个代理到工具的请求。

实施 Agentic AI 第 1 部分:利益相关者指南

Operationalizing Agentic AI Part 1: A Stakeholder’s Guide

AWS 生成式 AI 创新中心已帮助 1,000 多家客户将 AI 应用于生产,实现了数百万记录在案的生产力提升。在这篇文章中,我们为 C-suite 领导者分享指导:CTO、CISO、CDO、首席数据科学/人工智能官,以及企业主和合规主管。

加速自定义 LLM 部署:使用 Oumi 进行微调并部署到 Amazon Bedrock

Accelerate custom LLM deployment: Fine-tune with Oumi and deploy to Amazon Bedrock

在这篇文章中,我们将展示如何在 Amazon EC2 上使用 Oumi 微调 Llama 模型(可以选择使用 Oumi 创建合成数据)、在 Amazon S3 中存储工件以及使用自定义模型导入部署到 Amazon Bedrock 进行托管推理。

在 Amazon Bedrock 上将 NVIDIA Nemotron 3 Nano 作为完全托管的无服务器模型运行

Run NVIDIA Nemotron 3 Nano as a fully managed serverless model on Amazon Bedrock

我们很高兴地宣布,NVIDIA 的 Nemotron 3 Nano 现已在 Amazon Bedrock 中作为完全托管的无服务器模型提供。此前,我们在 AWS re:Invent 上宣布支持 NVIDIA Nemotron 2 Nano 9B 和 NVIDIA Nemotron 2 Nano VL 12B 型号。本文探讨了 NVIDIA Nemotron 3 Nano 模型的技术特征并讨论了潜在的应用用例。此外,它还提供技术指导,帮助您开始在 Amazon Bedrock 环境中将此模型用于生成 AI 应用程序。

通过全球跨区域推理在 Amazon Bedrock 上访问印度的 Anthropic Claude 模型

Access Anthropic Claude models in India on Amazon Bedrock with Global cross-Region inference

在本文中,您将了解如何在印度使用 Amazon Bedrock 的全球跨区域推理来处理 Claude 模型。我们将指导您了解每个 Claude 模型变体的功能以及如何开始使用代码示例,以帮助您立即开始构建生成式 AI 应用程序。

理光如何在 AWS 上构建可扩展的智能文档处理解决方案

How Ricoh built a scalable intelligent document processing solution on AWS

本文探讨了理光如何使用 AWS GenAI IDP Accelerator 作为基础构建标准化的多租户解决方案,用于自动文档分类和提取,从而将其文档处理从自定义工程瓶颈转变为可扩展、可重复的服务。

在 AWS 上使用 Amazon Nova 构建可扩展的虚拟试戴解决方案:第 1 部分

Building a scalable virtual try-on solution using Amazon Nova on AWS: part 1

在这篇文章中,我们将探讨 Amazon Nova Canvas 中现有的虚拟试穿功能,包括快速入门的示例代码以及帮助获得最佳输出的提示。

Lendi 如何利用 Amazon Bedrock 在 16 周内利用代理 AI 为客户改进再融资之旅

How Lendi revamped the refinance journey for its customers using agentic AI in 16 weeks using Amazon Bedrock

本文详细介绍了 Lendi Group 如何使用 Amazon Bedrock 构建人工智能驱动的 Home Loan Guardian、他们面临的挑战、他们实施的架构以及他们取得的重大业务成果。他们的旅程为那些希望使用生成式人工智能改变客户体验,同时保持人性化以建立信任和忠诚度的组织提供了宝贵的见解。

Tines 如何使用 Amazon Quick Suite 增强安全分析

How Tines enhances security analysis with Amazon Quick Suite

在这篇文章中,我们向您展示如何将 Quick Suite 与 Tines 连接,以安全地检索、分析和可视化来自任何安全或 IT 系统的企业数据。我们将演练一个示例,该示例使用 Tines 中的 MCP 服务器从各种工具(例如 AWS CloudTrail、Okta 和 VirusTotal)检索数据,以使用 Quick Suite 修复安全事件。

像专业人士一样构建安全的生成式 AI 应用程序:使用 Amazon Bedrock Guardrails 的最佳实践

Build safe generative AI applications like a Pro: Best Practices with Amazon Bedrock Guardrails

在这篇文章中,我们将向您展示如何配置 Amazon Bedrock Guardrails 以获得高效性能,实施最佳实践来保护您的应用程序,并有效监控您的部署以在安全性和用户体验之间保持适当的平衡。

从现实世界中的 COBOL 现代化中学习

Learnings from COBOL modernization in the real world

实现成功的 COBOL 现代化需要一种解决方案,该解决方案可以确定性地进行逆向工程,生成经过验证和可追踪的规范,并帮助这些规范流入任何人工智能驱动的编码助手以进行正向工程。成功的现代化需要逆向工程和正向工程。在这篇文章中了解有关 COBOL 的更多信息。

大型模型推理容器 – 最新功能和性能增强

Large model inference container – latest capabilities and performance enhancements

AWS 最近发布了大型模型推理 (LMI) 容器的重大更新,为在 AWS 上托管 LLM 的客户提供全面的性能改进、扩展的模型支持和简化的部署功能。这些版本的重点是降低操作复杂性,同时在流行的模型架构中提供可衡量的性能提升。

在 Amazon SageMaker AI 和 Amazon Bedrock 上使用 vLLM 高效地服务数十个微调模型

Efficiently serve dozens of fine-tuned models with vLLM on Amazon SageMaker AI and Amazon Bedrock

在这篇文章中,我们将解释如何在 vLLM 中为专家混合 (MoE) 模型实现多 LoRA 推理,描述我们执行的内核级优化,并向您展示如何从这项工作中受益。我们在这篇文章中使用 GPT-OSS 20B 作为我们的主要示例。

使用 Amazon Bedrock AgentCore 和 Amazon Bedrock 知识库构建智能事件代理

Building intelligent event agents using Amazon Bedrock AgentCore and Amazon Bedrock Knowledge Bases

本文演示了如何使用 Amazon Bedrock AgentCore 组件快速部署生产就绪的事件助手。我们将构建一个智能伴侣,它可以记住与会者的偏好并随着时间的推移构建个性化体验,而 Amazon Bedrock AgentCore 则负责处理生产部署的繁重工作:Amazon Bedrock AgentCore Memory 用于维护对话上下文和长期偏好,无需自定义存储解决方案;Amazon Bedrock AgentCore Identity 用于安全的多 IDP 身份验证;Amazon Bedrock AgentCore Runtime 用于无服务器扩展和会话隔离。我们还将使用 Amazo

在 Amazon SageMaker 训练作业上使用 veRL 和 Ray 训练 CodeFu-7B

Train CodeFu-7B with veRL and Ray on Amazon SageMaker Training jobs

在这篇文章中,我们将演示如何在由 SageMaker 训练作业管理的分布式 Ray 集群中使用组相对策略优化 (GRPO) 和 veRL 来训练 CodeFu-7B(一种用于竞争性编程的专用 70 亿参数模型),veRL 是一个灵活高效的大型语言模型 (LLM) 训练库,可直接扩展各种 RL 算法,并与现有 LLM 基础设施无缝集成。我们将介绍完整的实施过程,涵盖数据准备、分布式训练设置和全面的可观察性,展示这种统一的方法如何为复杂的 RL 训练工作负载提供计算规模和开发人员体验。